(网经社讯)        7月15日，由国家网信办、国家发改委、工信部等五部门联合出台的《人工智能拟人化互动服务管理暂行办法》（简称《办法》）正式施行（详见网经社专题：https://www.100ec.cn/zt/rgznnrh/  ）。对此，网经社电子商务研究中心发布【电商快评】予以解读。 

        【观点一：乱象倒逼制度落地 新规填补AI情感交互监管空白】

        浙江省数智技术与服务联合会数字经济专委会副秘书长、网经社电子商务研究中心分析师陈礼腾表示，大模型技术快速迭代，各类AI虚拟陪伴、数字人聊天、个性化智能体、情感咨询、虚拟恋人等拟人化互动产品快速普及。此类产品突破了传统工具类AI“问答、办公、教学”的功能性边界，具备人格模拟、持续情感输出、深度人机共情能力，能够长期陪伴用户、干预用户情绪、影响用户决策。

当前国内落地的拟人化AI平台业态丰富，既有Glow、星野、筑梦岛、Talkmaker等主打情感陪伴、虚拟人设互动的专属AI聊天平台，也有字节豆包、阿里千问等头部大模型平台开放的自定义智能体功能（已于《办法》落地当日下线），同时Soul等社交平台依托自研大模型布局AI情绪陪伴、虚拟人互动场景，海量拟人化产品快速渗透大众消费市场。

        陈礼腾认为，行业快速发展的同时，各类风险频频发生：部分AI产品输出不良价值观、诱导用户情感沉迷、替代现实社交；部分平台利用情感操纵诱导消费、误导用户决策；未成年人接触虚拟亲密关系引发心理异化；用户交互隐私数据泄露、训练数据不合规、人机边界模糊等问题频发。原有AI通用监管规则无法适配情感交互的特殊性，行业亟需专属、细化、可落地的治理规范。作为国内首部专门针对AI情感陪伴、拟人化交互场景的专项监管规章，《办法》终结了长期以来AI虚拟伴侣、情感智能体、拟人对话交互业态“无专属规则、无明确边界、无刚性约束”的野蛮生长状态。

        网经社电子商务研究中心特约研究员、天册律师事务所合伙人吴旭华也表示，现有的《网络安全法》《数据安全法》《个人信息保护法》《生成式人工智能服务管理暂行办法》等规范虽能规范部分问题，但在“持续性情感互动”这一特定风险领域，仍存在明显规制空白。《办法》的出台，正是以专项规范性文件形式对这一新型社会风险予以精准回应。

        【观点二：《办法》划定监管伦理红线 多维规范AI拟人化服务】

        资深人工智能专家、网经社电子商务研究中心特约研究员郭涛表示，本次新规清晰划分情感陪伴类AI与工具型AI的监管边界，虚拟陪伴、数字人、具身智能全部纳入专项管控体系：

        首先，在准入规则层面，拟人化角色必须完成备案管理，交互内容执行全链路审核，明确服务定位只能作为人类辅助工具，禁止以诱导情感依附、替代现实社交作为产品设计目标。

        其次，在交互机制层面，要求系统内置情感边界干预程序，不能无限迎合用户情绪，杜绝通过人设塑造制造深度心理绑定，同时规范数字人对话逻辑，具身智能在交互过程中设置现实提醒机制。

        最后，在数据管理层面，全流程留存交互日志，保障用户聊天隐私可自主删除，扭转行业随意留存私密对话的乱象。

        郭涛进而表示，过去不少平台依靠暧昧人设拉长用户时长，诱导充值消费，新规从产品底层设计划定伦理红线，依靠制度约束平台商业导向，叠加常态化巡查机制，能够系统性遏制情感诱导、过度沉迷等行业顽疾，无序扩张的野蛮发展模式将被规范化运营模式取代，行业发展逻辑由追逐用户粘性转向健康的实用化服务。

        工信部中国电子商务专家库高级专家、网经社电子商务研究中心特约研究员孙云沁认为，这次《办法》最大的特点，就是针对AI拟人化服务“易产生依赖、易影响心智”的特殊属性，设置了四道硬核防线。

        第一道是未成年人保护——“虚拟伴侣”碰不得。《办法》明确规定：拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务；向不满十四周岁未成年人提供其他拟人化互动服务的，必须取得监护人同意；同时要求建立未成年人模式，支持监护人管控使用行为、限制充值消费等。

        第二道是老年人权益保障——“适老陪伴”可以，但别“挖坑”。在老年陪护场景中，AI拟人化互动服务可主动问候、提醒用药、陪伴聊天，有效缓解老年群体的孤独感。但此类服务通过模拟人类情感和沟通方式，需警惕产生非理性的依赖，削弱现实社交能力。

        第三道是防沉迷管理——2小时是个“警戒线”。《办法》要求：拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用拟人化互动服务每超过2个小时的，应当以对话或者弹窗等方式提醒用户注意使用时长。

        第四道是数据安全——敏感个人信息不能随便“喂”给AI。《办法》明确要求：拟人化互动服务提供者应当依法落实数据产权等制度，采取数据加密、访问控制等措施保护用户交互数据安全；除法律另有规定或者权利人明确同意外，不得向第三方提供用户交互数据；用户可以选择对聊天记录等历史交互数据进行复制、删除等；除法律另有规定或取得用户单独同意外，不得将属于用户敏感个人信息的交互数据用于模型训练。

        【观点三：行业发展逻辑重塑 规化驱动AI产业结构升级】 

        郭涛认为，对于企业来说，改造的首要难点在于海量自建智能体的甄别工作，海量UGC人设很难通过机器自动筛查，全量人工审核会推高巨额运营成本。改造重点需要重构模型话术逻辑，弱化AI的人格化共情能力，取消关系递进式对话设计，建立动态风险识别算法，同时搭建完备的实名认证体系，平衡产品体验与合规标准，很多中小平台受技术成本限制，很难落地精细化的预警干预功能，整改落差会客观存在。

        郭涛进而表示，对于行业来说，长期来看消费级AI的商业化逻辑会发生明显转变，过去依靠虚拟人设吸引付费的模式逐步失效，行业转向场景化价值变现，拥有合规能力的头部企业获得更大发展空间，缺乏整改实力的中小应用加速出清。个人AI智能体将拆分工具功能与情感功能，工具模块自由迭代优化，拟人交互模块接受规范约束。具身智能产业会加快向工业、家政实用场景落地，纯粹情感陪伴型机器人项目缩减，整个行业告别流量化玩法，沿着负责任创新的路径稳步推进，行业商业模式与产品研发方向迎来结构性调整。

        陈礼腾总结道，《办法》的实施，标志着我国人工智能治理体系从宏观通用监管，走向细分场景精准治理。本次以分类监管、底线思维、全链管控、包容创新为核心，既堵住了行业乱象漏洞、守护用户尤其是青少年群体权益，又为AI情感技术正向创新、民生场景落地预留了充足空间。持续推动人工智能产业向善、有序、高质量发展。